AI PC 人工智慧 神兵利器

• 聯想與 NVIDIA 發布混合式人工智慧解決方案， 協助企業快速採用生成式人工智慧

  NVIDIA (NASDAQ: NVDA) 和聯想 (HKSE: 992) (ADR: LNVGY) 今天宣布擴展合作夥伴關係，提供全新的混合式解決方案和工程合作，以支持雙方共同願景，將生成式人工智慧的力量帶給每一家企業。 透過與NVIDIA的密切合作，聯想將提供完全整合的系統，從邊緣至雲端環境，將人工智慧驅動的運算帶到任何產生資料之處，幫助企業輕鬆部署客製化的生成式人工智慧應用程式，以推動所有產業的創新和轉型。 聯想集團董事長兼執行長楊元慶和NVIDIA創辦人暨執行長黃仁勳在德州奧斯汀舉行的年度全球聯想創新科技大會（Tech World）主題演講中介紹這些產品，並討論企業對端到端解決方案的需求，這些解決方案整合了加速系統、人工智慧軟體和專家服務，以便迅速使用他們自己的資料建立和運行定制的人工智慧模型。 在新的聯想AI Professional Services Practice支持下，這些解決方案使企業能夠採用混合雲的方法，利用NVIDIA AI Foundations雲端服務來建構自定義的人工智慧模型，並在NVIDIA為生成式人工智慧設計的最新軟硬體驅動下，於本地端聯想系統內運行。 聯想基礎設施解決方案集團總裁 Kirk Skaugen 表示：「聯想和NVIDIA正在共同推動企業混合式人工智慧的新時代，設計下一代技術，打造人工智慧驅動的未來，並在任何產生資料之處釋放它們的力量。聯想與NVIDIA在工程設計和上市時間方面擴大合作，簡化了所有人採用生成式人工智慧的途徑，並協助任何地方的客戶快速使用尖端人工智慧達成業務轉型。」 NVIDIA 企業平台副總裁Bob Pette表示：「隨著生成式人工智慧驅動著當代最偉大的技術轉型，企業正在尋求能夠讓他們靈活地跨工作站、資料中心及雲端開發和部署工作負載的解決方案。NVIDIA 和聯想正在提供全面的混合式人工智慧系統產品組合，企業可以依靠這些系統在幾乎任何地方為生成式人工智慧提供動力。」 聯想採用 NVIDIA 技術的系統經過最佳化，可運行 NVIDIA AI Enterprise 軟體，以實現安全、可支援且穩定的生產人工智慧。透過 NVIDIA AI Enterprise中的 NVIDIA NeMo框架，組織可以自訂在 NVIDIA AI Foundation 上提供的企業級大型語言模型。使用最新的檢索增強生成模型（RAG）技術和微調方法，企業可以使用其獨特的企業內資料建構最佳化生成式人工智慧應用程式，執行在聯想的混合式人工智慧解決方案上。 兩家公司擴大合作關係的核心是Lenovo ThinkSystem SR675 V3伺服器和ThinkStation PX 工作站，它們針對運行 NVIDIA AI Enterprise 的生產人工智慧進行了最佳化。ThinkSystem SR675V3將包含NVIDIA L40S GPU、NVIDIA BlueField-3 DPU 和 NVIDIA Spectrum™-X網路。ThinkStation PX 將透過在系統中啟用多達4 個 NVIDIA RTX 6000 Ada GPU，為桌上型電腦帶來擴展的人工智慧功能和資料中心效能。 此外，聯想和NVIDIA將基於靈活的NVIDIA MGX™模組參考設計打造下一代系統，提供多種強大且安全的解決方案，以處理最具挑戰性的生成式人工智慧工作負載，並協助企業使用NVIDIA Omniverse™實現大規模的沉浸式模擬和認知決策。NVIDIA Omniverse是一個連接和開發OpenUSD應用的平台。 聯想的解決方案還將支援最近宣布與NVIDIA合作的VMware Private AI Foundation，使數十萬名VMware客戶能夠簡化生成式人工智慧的採用。 兩家公司共同協助企業充滿信心地輕鬆部署人工智慧，並透過新的聯想AI Professional Services Practice和聯想的TruScale aaS產品開啟由人工智慧驅動的轉型，該產品使企業能夠利用隨用隨付模式。 聯想AI Professional Services Practice提供廣泛的服務、解決方案和平台，協助各種規模的企業駕馭人工智慧領域，找到合適的解決方案，並讓人工智慧快速、經濟高效地大規模應用於其組織。它有助於將人工智慧從概念變為現實——從設計人工智慧路線圖到部署平台，再到透過聯想TruScale Hub提供技術使用的透明度。 欲了解更多訊息，請觀看楊元慶和黃仁勳在Tech World ’23的影片。 欲了解聯想和NVIDIA如何合作致力於打造更智慧、更快速的未來，請參考https://www.lenovo.com/us/en/servers-storage/alliance/nvidia/ →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• AAEON新推搭載NVIDIA Jetson Orin NX的邊緣AI系統: BOXER-8652AI

  專業物聯網及人工智慧邊緣運算平臺研發製造大廠—研揚科技(股票代碼: 6579)，日前發表一款採用NVIDIA Jetson Orin NX模組的無風扇嵌入式人工智慧系統: BOXER-8652AI。 這款BOXER-8652AI充分發揮了NVIDIA Jetson平台的功能，在研揚研發團隊專業設計下的這款新品，配備了許多適用於智慧零售應用的功能。其中包括兩個超高速乙太網路連接埠，以及兩個USB32. Gen.2和兩個USB2.0 Type-A連接埠，可連接多個攝影機，來分析消費者購買行為。其次，BOXER-8652 可裝置WiFi/4G/5G 等無線網路，提供靈活便利的傳輸架構。而豐富的CANBus，DIO和RS-232/422/485控制介面，更可讓使用者易於控制裝置，讓消費者擁有更舒適的購買環境。 憑借整合NVIDIA Jetson Orin NX，BOXER-8652AI充分發揮了1024核心NVIDIA Ampere架構GPU和32個Tensor core的優越人工智慧性能，同時可執行多種人工智慧演算法，例如: 消費者店內瀏覽軌跡，產品陳列熱區，年齡性別分析，結帳排隊長短，無人結帳等等。 BOXER-8652AI的尺寸僅只5.98吋 x 3.78吋 x 2.42吋（152mm x 96mm x 61.5mm），雖然體積小巧，但可彈性擴充也是這項新品的特色之一，包括一個M.2 2280 M-Key，可供靈活固態硬碟儲存擴充，此外，M.2 2230 E-key和M.2 3042/3052 B-Key則可支援Wi-Fi和5G模組彈性配置。 BOXER-8652AI的推出將有助於AAEON在全球範圍內加強NVIDIA Jetson Orin NX模組和開發者套件全系列產品的競爭優勢。例如之前發表的BOXER-8640AI和BOXER-8641AI，是採用NVIDIA Jetson AGX Orin模組，還有採用NVIDIA Jetson Orin Nano模組的BOXER-8621AI。讓用戶可以廣泛選擇符合需求的NVIDIA Jetson Orin系列產品。 「NVIDIA持續推動不同領域的創新，身為菁英級夥伴的研揚科技也同步搭配NVIDIA來進行最新技術的採用與設計，讓最新的科技展現在世人面前，也為客戶無縫接軌的進行系統更新。」研揚科技智能系統產品處資深協理薛紹周表示。「研揚是工業邊緣AI系統領域的先驅，可為客戶提供一系列基於NVIDIA Jetson平臺的邊緣AI解決方案。同時，研揚憑藉豐富的ODM/OEM經驗，讓客戶可依照應用所需，來提供專業的服務。」薛紹周補充說道。 更多BOXER-8652AI的產品資訊，您可以上研揚官網查詢，也可以與研揚科技國內業務處02-89191234分機1142劉小姐聯繫。現在BOXER-8652AI也同時在研揚eShop上販售，有小量需求的客戶，也可透過eShop購買。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 驚豔東京的台灣奇蹟！技嘉將展出AI伺服器旗艦機

  2023年第四屆AI Expo Tokyo．秋暨第十四屆Japan IT Week．秋即將於10月25日展開，為期三天至10月27日止！技嘉科技集團旗下子公司技鋼科技此次參展規模超越以往，並擴展戰線從AI Expo到Japan IT Week兩個主題展區，今年首次攜手系統整合商ScaleWorX於AI Expo展共同展出，冀望藉由雙方的合作以深化對日本地區針對高效能運算以及人工智慧領域的客戶經營與服務力道。除此之外，於 Japan IT Week的IoT Solution主題區在SHINDEN HIGHTEX CO.攤位展出今年10月甫上市的AMD EPYC 8004與AMD Ryzen 7000系列伺服器，以及其他針對中小型企業應用或是5G、電信網路終端服務、邊緣運算應用的伺服器產品！展覽豐富且完整，從人工智慧到雲端服務應用、與在地夥伴攜手合作提供一站到位的服務，誠摯邀請您蒞臨參觀！ 人工智慧旗艦機種G593-SD0：隨著GPT-3的問世與卓越表現，人工智慧應用不再遙不可及。這類從千億參數開始起跳的大模型，推動了計算機的運算效能與規模的巨大增長，促使市場對GPU加速運算的需求急速增溫，催生出今天單機超級電腦乃至於叢集運算設備的銷售模式。技嘉科技作為市場上最早推動GPU加速運算的伺服器供應商，更是首批能提供NVIDIA H100 HGX的伺服器供應商，G593-SD0橫空出世，更在今年6月底公布的MLPerf Training v3.0中展現其優越性能，一舉拿下醫療影像分割與自然語言處理的第一名！此主題區內還有兩款支援NVIDIA Grace CPU超級晶片的H263-V60，與NVDIA Grace Hopper™ 超級晶片的H263-V11，適用於大規模的旗艦人工智慧和高效能運算應用。 今年10月剛上市的R243-EG0，支援AMD EPYC 8004系列處理器，憑藉Zen 4c核心架構的優化，擁有EPYC產品線中擁有最低功耗表現，是為雲端、邊緣運算與電信終端服務應用而推出！R123-C00支援AMD Ryzen 7000系列處理器，採用5奈米製程技術，作為入門級應用的選擇方案之一；除了高性價比的入門級企業解決方案之外，還有搭載Intel Xeon W系列處理器，針對專業創作者設計，為媒體和娛樂、工程和資料科學專業人士所推出，的專業級工作站W773-W80。 從人工智慧到雲端服務應用、從資料中心到專業創作者以及在地化服務，10月25日至10月27日，技鋼科技準備好在為期三天的第四屆AI Expo Tokyo．秋暨第十四屆Japan IT Week．秋中與您相見，歡迎到我們與夥伴的展位上參觀了解！ →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 英特爾推出業界首個 AI PC加速計劃

  英特爾在Innovation 2023 大會上分享了AI PC使用案例後，今日宣布啓動AI PC加速計劃（AI PC Acceleration Program），透過這項全球創新計劃以加速AI在整體PC產業的發展。 AI PC加速計劃為獨立硬體供應商（IHV）及獨立軟體供應商（ISV）串聯英特爾的資源，包括 AI工具鏈、共同開發、硬體、設計資源、技術專業和共同行銷機會。這些資源能夠幫助生態系合作夥伴充分利用Intel Core Ultra處理器的技術和相容硬體，將AI和機器學習（ML）的應用效能最大化；催生出全新的使用案例，讓AI PC生態系的解決方案能夠連結到更廣泛的 PC 產業。更多訊息，請瀏覽 AI PC 加速計劃網站。 AI PC的出現是PC 產業的重要轉捩點，越來越多軟體透過AI和 ML 演算法強化自身應用功能，這些應用讓大眾能更簡單的創作藝術、音樂、學習知識與提升工作效率。英特爾憑藉中央處理器（CPU）、圖形處理器（GPU）和神經網路處理器（Neural Processing Unit, NPU）的強大架構，將人工智慧軟體的效能和能源效率最佳化。 英特爾執行副總裁兼客戶端運算事業部總監Michelle Johnston Holthaus表示，「軟體領導力是AI PC 體驗的關鍵，英特爾擁有獨特的優勢，以打造開放的生態系方式領導產業發展。運用在 AI開發領域具備豐富經驗及深厚的ISV工程關係網路，英特爾將在促進連結與創新上扮演積極的角色，推動全新的PC使用案例和體驗。」 AI PC加速計劃將由英特爾經驗深厚的工程技術人才，協助各項基於 ISV 需求的特定軟體優化及調整、核心開發工具和 OpenVINO™ 等軟體開發套件，以及產品上市機會。 英特爾將與 超過100 家的 ISV 合作夥伴發展 300 多項AI加速功能，包括 Adobe、Audacity、BlackMagic、BufferZone、CyberLink、DeepRender、MAGIX、Rewind AI、Skylum、Topaz、VideoCom、Webex、Wondershare Filmora、XSplit、Zoom。 AI PC加速計劃的首批合作夥伴分享： • Audacity 產品負責人Martin Keary：「Audacity 非常高興能與英特爾合作，為廣大AI PC用戶帶來強大、開放式、而且免費的AI工具。我們希望這類計劃在未來能創造一個全新的創作環境，造福作曲家、Podcast製作人和音響玩家，讓過去 20 年的傳統音訊工具轉型。我們希望這會是 Audacity 未來許多成功AI計劃的先例，也期許 Audacity 成為研究者展示工作成果的綜合樞紐，為用戶提供豐富多樣、令人驚嘆的全新 AI 工具，並提供試用。」 • Blackmagic Design DaVinci 軟體工程總監 Rohit Gupta：「我們很高興能針對最新的Intel Core Ultra處理器為DaVinci Resolves進行先進媒體引擎（advanced media engine）和AI技術優化。憑藉我們深厚的合作夥伴關係和英特爾對創作者社群堅定不移的支持，期待能為最新的Intel Core Ultra 處理器全面優化軟體應用，提升客戶的使用體驗。」 • Bufferzone 技術長 Ran Dubin 博士：「英特爾個人電腦內建 NPU、具備深度學習的能力，顛覆了安全瀏覽解決方案。它有助於降低Cloud AI的成本和隱私問題，同時幫助客戶進一步保護帳戶免於釣魚詐騙威脅。」 • 思科協作AI工程副總裁 Chris Rowen：「 Webex致力於為用戶提供更好的協作體驗，AI在此當中扮演關鍵角色。我們很高興能與英特爾合作，利用Intel ® OpenVINO™工具套件並整合英特爾處理器上的全新NPU，實現全新的媒體AI功能，進而提高Webex視訊會議期間的能源效率和平台反應速度。」 • 訊連科技董事長暨執行長黃肇雄博士：「訊連科技相信 NPU將會是提供用戶全新AI體驗的關鍵。我們正與英特爾在NPU賦能方面密切合作，期許透過整合的AI推論加速有所斬獲。」 • Deep Render 聯合創始人兼執行長 Chri Besenbruch：「Intel Core Ultra 卓越的性能能夠為 AI PC 用戶提供 5 倍卓越的AI-only 視訊壓縮，交付無可比擬的影像品質，相當於家庭網路加速了 5 倍。其NPU 性能讓Deep Render可以在終端用戶裝置上實現快如閃電、高效節能 AI 視訊壓縮。」 • MAGIX 技術長 Hagen Hirchce：「MAGIX 發現大眾很需要能夠編輯影片、同時具備全天電池續航力的強大行動裝置。目前採用英特爾混合架構處理器的新型 PC已取得重要進展，應用程式也大量採用 GPU 來處理嚴苛的媒體工作負載。MAGIX十分肯定英特爾在Intel Core Ultra 處理器中整合 NPU ，邁向更節能的異質運算環境。目前我們正在CPU和GPU上執行優化的AI工作負載，並與英特爾工程團隊一起持續探索NPU的功能，積極尋找讓影片編輯工作流程更節能的方法。我們相信在未來兩年內，AI PC將成為創作者不可或缺的工具。」 • Rewind 共同創辦人兼執行長 Dan Siroker：「Rewind 的願景是賦予人類超能力。為此，我們提供由終端用戶所見、所述與所聞的一切驅動的個人化AI工具。透過英特爾的市場領導地位和深入的技術合作，充分利用全新Intel Core Ultra 處理器的AI功能，將 Rewind 導入 Windows PC。 Rewind很高興能加入AI PC加速計劃，因為我們與英特爾一樣認為AI加速器是PC體驗不可或缺的一部分。」 • Skylum 產品與工程副總裁 Dmytro Mykhalchuk：「Skylum是AI輔助照片編輯的專家，最著名的產品是屢獲殊榮的軟體 Luminar Neo。AI輔助照片編輯的領域需要更多資源：持續提高照片解析度，越來越多的工具走向 ML 處理。英特爾在AI領域、包括CPU 和 GPU 兩方面的各項計畫，以及在所有 Intel 新處理器中加入 NPU，讓我們得以顯著改善創作者的使用體驗。對於 Luminar Neo 內部任務的執行速度來說，不僅帶來正面成效，同時降低了用戶裝置的整體負載。」 • Topaz Labs AI引擎主管 Suraj Raghuraman 博士：「Topaz Labs透過創新的AI照片和影片優化工具，幫助專業創作者製作出絢麗的視覺效果。英特爾全新的Core Ultra系列處理器，利用NPU實現卓越的機器學習效能，同時執行複雜的深度學習模型。Topaz Labs與英特爾將持續開發出劃時代的相片和影片優化軟體，將AI PC帶給每個人。」 • VideoCom.com Inc.產品主管Gareth Reynolds：「我們非常期待英特爾全新的 Meteor Lake 平台；隨著CPU和GPU效能提升，不僅應用程式的品質和回應速度得以改善，AI工作負載也能夠完全卸載給內建的NPU。VideoCom.com Inc.與英特爾一起合作將 NPU 整合到影片處理中，目標是開發其他能夠讓NPU離線執行的AI功能，並期待將新功能介紹給所有用戶。」 • Wondershare Filmora 產品行銷總監 Shearer Wang：「Filmora很高興能夠為我們1億多位用戶帶來全新英特爾處理器驅動的AI功能。藉著Intel Core Ultra處理器橫跨 CPU、GPU以及創新 NPU的全方位 AI 功能，Filmora幫助用戶優化、簡化和解放他們的創作潛能，輕鬆製作出動人的影片。我們期待與英特爾繼續保持密切的合作關係，引領所有創作者投入 AI PC的懷抱。」 • XSplit 執行長 Andreas Hoye：「我們持續與英特爾合作將 NPU 功能整合到 VCam 中，讓商用硬體能夠達到更高規格的視訊品質。其中，將背景分割功能和其他 AI工作負載卸載到 NPU是至關重要的一環。英特爾 NPU 可以執行更大的AI模型，讓即時視訊的背景移除誤差減少 30%，同時顯著降低 CPU 和 GPU 的總體負載。我們與英特爾一樣致力為創作者提供強大新硬體的 AI PC，也希望透過AI PC 加速計劃及各項努力，讓這項技術成為主流。」 • Zoom 硬體合作夥伴負責人 Eric C. Yu：「過去幾年AI技術在視訊會議場景中的應用大幅增長，Zoom非常高興看到英特爾整合了NPU，提供高效節能的AI加速器，卸載圖形和音訊的AI工作負載。英特爾在路線圖中納入 NPU，代表著AI 工作負載的能源效率提升將改善Zoom 體驗；從Meteor Lake 平台開始，未來將有更多的平台投入。」 AI PC Acceleration 計劃是英特爾合作夥伴聯盟 AI Accelerator Initiative 的延伸，後者為 1,000 多家 ISV 合作夥伴提供一套循序漸進的互動方式，幫助構建、優化並布署從邊緣到雲端的 AI 解決方案。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• NVIDIA 擴展機器人平台以因應生成式人工智慧的興起

  強大的生成式人工智慧模式、雲端原生 API 和微服務正在走向邊緣。 生成式人工智慧正在將Transformer 模型和大型語言模型的力量帶入幾乎每個產業。如今觸角已伸到接觸邊緣、機器人和物流系統等領域：瑕疵檢測、即時資產跟蹤、自主規劃和導航、人機互動等等。 NVIDIA今天宣布NVIDIA Jetson平台上邊緣人工智慧和機器人技術兩個框架的重大擴展。NVIDIA Isaac ROS機器人框架已經正式推出，接下來將推出 Jetson 上 NVIDIA Metropolis 的擴充。 為了加速人工智慧應用在邊緣的開發和部署，NVIDIA還為Jetson開發人員創建了一個生成式人工智慧練習場（Generative AI Playground），供他們使用最新的開源生成式人工智慧模型。 超過 120 萬開發者和超過 10,000 名客戶選擇了 NVIDIA AI 和 Jetson 平台，其中包括Amazon Web Services、思科、強鹿公司、美敦力、百事公司和西門子。 隨著人工智慧領域的快速發展，解決日益複雜的場景，開發人員在建立邊緣人工智慧應用程式時面臨更長開發週期的挑戰。 對機器人和人工智慧系統重新進行程式設計以滿足不斷變化的環境、生產線和客戶動態的自動化需求需要專業技能，而且非常耗時。 生成式人工智慧提供零樣本學習，即模型能夠識別在之前訓練中未見過的事物的能力，並透過自然語言介面簡化邊緣人工智慧的開發、部署和管理。 生成式人工智慧顯著地提高了人類語言的易用性，以提示和進行模型更改。 這些人工智慧模型可以更靈活地檢測、分割、追蹤、搜尋，甚至重新程式設計任何觸手可及的東西。 這些特性有助於超越傳統的基於卷積神經網路 （convolutional neural network）的模型。 根據ABI Research的資料，生成式人工智慧在2033年將為全球製造業新增105億美元的收入。 NVIDIA嵌入式與邊緣運算部門副總裁Deepu Talla表示：「生成式人工智慧更通用、易用、且準確的特性將顯著的加速人工智慧邊緣的部署。Jetson 上 Metropolis 和 Isaac 框架有史以來最大規模的軟體擴展，結合 Transformer 模型和生成式人工智慧的強大功能，滿足了這一需求。」 NVIDIA Jetson生成式人工智慧練習場為開發人員提供了最佳化的工具和教學，用於部署開源大語言模型（LLM）、擴散模型以互動方式生成令人驚嘆的圖像、視覺語言模型（VLM）和結合了視覺人工智慧和自然語言處理視覺變換器（ViT）提供對場景的全面理解。 開發人員還可以使用 NVIDIA TAO 工具套件為邊緣創建高效、準確的人工智慧模型。 TAO 提供了一個低程式碼介面來微調和最佳化視覺人工智慧模型，包括視覺變換器和視覺基礎模型。現在，開發人員可以自訂和微調像是 NVIDIA NV-DINOv2 等基礎模型或 OpenCLIP 等公開的模型，從而用很少的資料建立高度準確的視覺人工智慧模型。 TAO現在也另外包括了 VisualChangeNet，這是一個基於transformer的瑕疵檢測模型。 NVIDIA Metropolis 讓企業更輕鬆、更具成本效益地採用世界一流的視覺人工智慧驅動的解決方案，以改善關鍵的營運效率和安全問題。這個平台帶來了一系列強大的 API 和微服務，供開發人員快速開發複雜的基於視覺的應用程式。 包括BMW集團、百事公司、克羅格公司、泰森食品、Infosys和西門子在內的1,000 多家公司都正在使用NVIDIA Metropolis 開發者工具，透過視覺人工智慧解決物聯網、感測器處理和營運挑戰，而且採用率正在加快。 這些工具目前已被那些希望建立視覺人工智慧應用程式的人下載了超過 100 萬次。 Metropolis API 和微服務為了讓開發人員可以快速建置和部署可擴展的視覺人工智慧應用程式，NVIDIA Jetson上擴展後的Metropolis API 和微服務將於年底推出。 數百位客戶使用 NVIDIA Isaac 平台開發跨不同領域的高效能機器人解決方案，包括農業、倉庫自動化、最後一哩運送和服務機器人等。 在 ROSCon 2023 上，NVIDIA 宣布透過新版本的 Isaac ROS 和 Isaac Sim 軟體對感知和模擬功能進行重大改進。 Isaac ROS 基於廣泛採用的開源機器人作業系統（Robot Operating System; ROS）構建，為自動化帶來感知，為移動的事物提供眼睛和耳朵。 透過利用 GPU 加速 GEMs 的強大功能（包括視覺慣性里程計、深度感知、3D 場景重建、定位和規劃），機器人開發人員獲得了快速設計適合各種應用機器人解決方案的工具。 最新的 Isaac ROS 2.0 版本已公開發布，使開發人員能夠利用 Jetson 創建高效能機器人解決方案並將其推向市場。 開源機器人基金會（Open Source Robotics Foundation）技術長 Geoff Biggs 表示：「ROS 不斷成長和發展，為整個機器人社群提供開源軟體。隨此版本一起推出的 NVIDIA 全新預構建 ROS 2 軟體套件，將使廣大 NVIDIA Jetson 開發者社群能夠輕鬆使用 ROS 2，從而加速ROS的成長。」 開發可立即上線使用的人工智慧解決方案需要最佳化開發和訓練針對特定用例而定制的人工智慧模型、在平台上導入強大的安全功能、編排應用程式、管理車隊、建立流暢的邊緣到雲的通訊等等。 NVIDIA 宣布推出一系列基於 Metropolis 和 Isaac 框架的精選 AI 參考工作流程，使開發人員能夠快速採用整個工作流程，或選擇性地整合這些工作流程中的各個組件，從而大大減少了開發時間和成本。三個不同的AI工作流程包括：網路影片錄製（NVR）、自動光學檢測（AOI）和自主移動機器人（AMR）。 Tirias Research 首席分析師Jim McGregor表示：「NVIDIA Jetson擁有廣泛且多樣的使用者基礎和合作夥伴生態系統，已經推動了邊緣機器人和人工智慧的革命。隨著應用需求變得越來越複雜，我們需要從根本上轉向能夠簡化並加速邊緣部署創建的平台。 NVIDIA 的這一重大軟體擴展使開發人員能夠獲得新的多感測器模型和生成式人工智慧功能。」 NVIDIA宣佈推出一系列系統服務，這些服務是每個開發人員在構建邊緣人工智慧解決方案時所需的基礎功能。這些服務將簡化整合Jetson平台與開發人員的工作流程，並免除了從頭開始構建時的繁重任務。 預計於年底前推出的NVIDIA JetPack 6，將使AI開發人員不必全面升級Jetson Linux，就能維持運算領先狀態，大大加快開發時間，並讓他們擺脫Jetson Linux依賴性。JetPack 6還將利用與Linux發行合作夥伴的合作，擴大基於Linux的發行版選項，包括Canonical經最佳化和認證的Ubuntu、Wind River Linux、Concurrent Real-Time Redhawk Linux以及各種基於Yocto的發行版。 Jetson 夥伴生態系提供從硬體、人工智慧軟體和應用程式設計服務到感測器、連接和開發者工具的廣泛支援。NVIDIA 合作夥伴網路中的這些創新者，為市場上銷售的眾多產品提供組件和子系統方面發揮了關鍵作用。 JetPack 軟體的最新版本使 Jetson 合作夥伴能夠加快上市時間，並使他們能夠擴大客戶群，以採用更多具有更高效能和功能的人工智慧。 獨立軟體供應商合作夥伴也將能夠擴大其針對Jetson開發的產品。 歡迎報名與參加我們在太平洋時間 2023 年 11 月 7 日星期二上午 9 點舉行的網路研討會，深入探討本文中討論的許多主題，包括用於在 Jetson 上部署 LLM 和 VLM 的加速 API 和量化方法，與使用 TensorRT 最佳化視覺transformers等。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• NVIDIA與鴻海合作建立工廠和系統，推動人工智慧產業革命

  NVIDIA 今天宣布與鴻海科技集團合作，加速人工智慧產業革命。 鴻海將整合NVIDIA 的技術來開發新型資料中心驅動廣泛的應用，其中包括製造和檢測工作流程的數位化、人工智慧驅動的電動汽車和機器人平台的開發，以及持續增長的基於語言的生成式人工智慧服務。 NVIDIA 創辦人暨執行長黃仁勳和鴻海集團董事長暨執行長劉揚偉在台北舉辦的鴻海科技日爐邊對談中宣布，雙方合作將從創建基於NVIDIA的加速運算平台的人工智慧工廠開始。人工智慧工廠為一種NVIDIA GPU 運算基礎設施，搭載最新的NVIDIA GH200 Grace Hopper 超級晶片和NVIDIA AI Enterprise軟體，專門用於處理、精煉、將大量資料轉化為有價值的人工智慧模型。 ● 鴻海智慧電動車（Smart EV）將建立於NVIDIA的下一代自動駕駛汽車車隊平台NVIDIA DRIVE Hyperion 9之上，並由其未來的汽車SoC NVIDIA DRIVE Thor驅動。 ● 鴻海智慧製造（Smart Manufacturing）機器人系統將建立於NVIDIA Isaac AMR自主移動機器人平台之上。 ● 鴻海智慧城市（Smart City）將整合NVIDIA Metropolis智慧影像分析平台。 黃仁勳表示：「製造智慧這種全新的製造業已經崛起，而生產這些智慧的資料中心就是人工智慧工廠。作為全球最大的製造商，鴻海具有在全球建立AI工廠的專業知識和規模。我們很高興擴展與鴻海的長達十年的合作，以加速人工智慧工業革命。」 鴻海正在與NVIDIA密切合作，為尋求創建和營運自己的人工智慧工廠的全球客戶群建造大量基於NVIDIA的CPU、GPU和網路技術的系統，並使用 NVIDIA AI Enterprise 軟體進行最佳化。 鴻海用於建構這些客製化設計的關鍵 NVIDIA 技術包括每個主機板配備 8 個 H100 GPU的NVIDIA HGX 參考設計、NVIDIA GH200 超級晶片、NVIDIA OVX 參考設計和 NVIDIA 網路。 借助這些系統，鴻海的客戶可以利用 NVIDIA 加速運算來提供生成式人工智慧服務，並使用模擬來加速工業機器人和自動駕駛汽車等自主機器的訓練。 除了為客戶配備由 NVIDIA 驅動的人工智慧工廠以進行設計和模擬外，鴻海也著眼於建造自己的人工智慧工廠，該工廠將利用 NVIDIA Omniverse、Isaac 和 Metropolis 框架，以滿足電子產業極其嚴格的生產和品質標準。 邊緣人工智慧和模擬的進步得以部署每天可以行駛數英里的自主移動機器人，以及用於組裝組件、塗敷塗層、包裝和執行品質檢查的工業機器人。 具備這些 NVIDIA 平台的人工智慧工廠可讓鴻海在佈建到實體世界之前完成人工智慧訓練、增強工廠工作流程並在虛擬世界中運行大量模擬。端到端模擬機器人和自動化流程為鴻海提供了一條提高營運效率、節省時間和成本的途徑。 鴻海也將向全球汽車製造商提供一系列 NVIDIA DRIVE 解決方案。鴻海目前已是基於 DRIVE Orin 的電子控制單元（ECU）的一級製造商，並在未來擴展到基於 DRIVE Thor 的電子控制單元。 作為代工製造商，鴻海將提供下一代高度自動化和自主且富含人工智慧的電動車，這些電動車採用即將推出的 NVIDIA DRIVE Hyperion 9 平台，其中包括 DRIVE Thor 和最先進的感測器架構。 這將使鴻海及其汽車客戶實現功能安全、可靠、軟體定義汽車的新時代。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 微軟攜手光禾感知為民視打造全台首位 AI 新聞主播 科技結合傳播增添新聞多樣性　「敏熙」播報多元吸睛

  生成式 AI 技術顛覆以往使用 AI 的方式，並深入各領域發展出多樣化的創新應用，而媒體產業在此波浪潮下也沒有缺席。相信大家對於在民視主播台上播報國際氣象的「敏熙」主播並不陌生，專攻影像技術的光禾感知以 AIGC（AI Generated Content，人工智慧生成內容）技術，結合微軟 Azure AI 語音服務，為民視新聞打造台灣首位 AI 生成的虛擬電視新聞主播，於六月底正式亮相以來廣受各方好評，更是擄獲無數觀眾的心。 本次合作集結影像、聲音與新聞製播等三方專業技術，由光禾感知生成 AI 虛擬主播影像後，搭配微軟 Azure AI 的語音合成技術產出發音自然、流暢的播報人聲，再借助民視新聞多年新聞製播經驗，以及豐富的新聞播報、訪談節目等高畫質新聞影像資料庫進行形象優化，量身打造專屬於民視的 AI 主播模型。 身為台灣微軟及民視新聞雙邊合作多年的產業夥伴，光禾感知科技執行長王友光指出：「光禾感知 2022 年底開始投入 AI 主播製作，透過大量蒐集照片作為訓練原料，以擴散模型（Diffusion model）為技術基底，訓練出能夠生成動態圖像的模型，完成主播臉孔塑造。很高興此次與台灣微軟攜手促成民視『敏熙』主播的誕生，展現生成式 AI 於影像生成領域無限的技術發展潛力。」 除了外貌，聲音在新聞播報中亦扮演重要角色，微軟 Azure AI 語音服務的 TTS（文字轉語音）及 Viseme 技術即為實現敏熙主播自然且順暢人聲關鍵。不同於傳統如機械音般的文字轉語音服務，Azure AI 語音服務擁有豐富模型，提供 140 種語系以上、超過 400 個近似真人發音的預建神經語音模型供選擇。除了預建模型，Azure AI 語音服務還支援自訂模型，可根據您的需求調整語音的風格、速度、音調等參數，進而生成貼近真人主播具備情緒及抑揚頓挫的語音，展現出結合 AI 與美感的傳播科技成果。 此外，透過 Viseme 技術還能提升虛擬主播嘴型與播報文字精準度。Viseme 技術能夠在說話過程定義臉部及嘴唇、下顎及舌頭等位置，使虛擬主播臉部嘴型與語音的結合呈現更為自然。兩者技術相輔相成不僅能生成嘴型與聲音吻合的 AI 臉部影像，也能進一步實現多國語系主播的可能，敏熙現在已可以進行綜合中文及英文的播報內容。 除了啟用虛擬 AI 主播外，民視也透過相關技術協助即時翻譯、資料搜尋整合與除錯等前期業務，在科技的輔助下增加新聞內容的豐富度。台灣微軟商務事業群總經理李光耀表示：「微軟將持續導入 AI 前瞻技術，延伸生成式 AI 觸角至各產業，實踐智慧創新應用。此次合作成功展現生成式 AI 技術為產業帶來的無限可能，我們也樂見透過電視新聞的傳播，帶動 AI 之於個人及產業的正向影響力。」 作為台灣新聞界專業領航者，民視在新聞製播擁有深厚的經驗及資源，因此能透過大量新聞播報畫面資料訓練 AI 模型，為播報的擬真程度提供絕佳樣本。民視新聞傳播群副總經理胡婉玲分享：「民視不只看到生成式 AI 技術為新聞產業帶來的嶄新機會，也充分評估相關風險並恪守相關法規與新聞倫理，禁止採用 AI 生成之新聞內容，確保所有 AI 虛擬主播的播出內容皆由編輯撰寫並依循既有審核流程，在發展新聞多樣性的同時，也維持高度正確性。」 民視 AI 主播「敏熙」六月上線後，獲得市場及觀眾熱烈迴響，並持續由三方進行播報精準度提升，在聲音方面微軟藉由結合最新 AI 技術而更加擬真的 TTS 及 Viseme 技術不斷優化聲音的呈現，光禾感知則網羅民視豐富且涵蓋中文、英文、台語、客語等語言之 4K 高畫質新聞影像資料庫，持續訓練全新影像模型，呈現細緻的臉部肌肉紋路，確保整體脣形、聲音及肢體語言更加擬真與自然。 目前「敏熙」主要於民視無線台晚間《全球看民視》、民視新聞台晚間六點十二分左右以及午夜新聞播報國際氣象，未來亦將於各時段節目或重點新聞預告播報。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 駕馭生成式AI和主權雲：實現創新與合規之間的平衡

  迄今為止，全球已有100多個國家頒佈了資料保護和資料主權法規，使資料主權成為50％的歐洲企業高階主管在選擇雲端廠商時考慮的主要問題。幾乎可以肯定的是，由於必須遵守的歐盟法規數量眾多，大多數企業（84%）將其資料處理的複雜性和資料管理的影響定為「中等」到「較大」。 另一個資料處理領域中必定要討論的是生成式AI。大多數企業員工都在以某種方式使用像GPT-4這樣的大型語言模型（LLM），即使只是出於好奇或為了摸索它的可能性的隨意使用。正如《泰晤士報》所報導的，該技術的盛行迫使一些企業禁止內部使用ChatGPT2 。與此相反的是，埃森哲（Accenture）等企業則呼籲員工「負責任地」使用這項技術。 採用生成式AI的企業，其目標都是為了提高生產力。據估計，各行業40%的工作時間會受到大型語言模型（LLM）的影響；語言任務占到員工總工作時間的62%，而其中65%的時間可通過增強措施和自動化轉化為更具生產力的活動。 而隨著主權雲與生成式AI世界的碰撞，這兩者到底是相互競爭的對手，還是相互輔助的好友，又或是亦敵亦友（假裝是朋友，但在某種程度上又是敵人）。由於生成式AI需要龐大的算力和飛速處理大型資料集的能力，因此公有雲成為了許多生成式AI應用的理想平台。公有雲提供的存取路徑、速度和規模只是一方面，安全、隱私和主權方面的要求同樣至關重要並且必須納入討論，這表示最適合生成式AI的雲不是公有雲，而是私有雲。 英國前首相Tony Blair發現了人們對雲端與AI的擔憂之間存在聯繫。據《每日電訊報》報導，Blair建議英國建立一個「主權」人工智慧（AI）機器人解決公共服務中出現的問題，比如英國國家醫療服務體系（NHS）中出現的問題。 這可能是一個複雜的決定。主權雲與生成式AI之間的關係取決於幾個重要因素，而要找到資料主權、隱私、合規和生成式AI所帶來的收益之間的平衡點，不但需要深思熟慮，而且還可能需要在開箱即用的公有雲生成式AI功能，和主權資料使用限制之間作出權衡。 生成式AI應用可能需要遵守一套法規，例如「一般資料保護規則」(General Data Protection Regulation, GDPR )中的資料保護規定，這部規則為企業負責任地採集、處理和儲存個人資料建立了一個完整全面的框架5。但這只是冰山一角，以權利為基準的個人資料處理方法在各地區、國家和州乃至各行業不斷擴展。美國各州將在2023年開始實施一系列新的資料隱私法，這可能會深入改變個人資料的處理方式。由於基於AI的個人資訊分析甚至生物識別技術已被廣泛應用，美國聯邦貿易委員會等組織正在警惕AI中的偏見，可能對公民個人造成的經濟和法律影響。各地區的法院已經在研究企業、政府機構和行業究竟該如何使用個人資料。 另一方面，主權雲可能需要適應另一套監管框架，以及所納入的資料分類規則，比如Schrems II判決中所述的規定要求資料隱私長需瞭解和評估雲端中儲存的資料，以及其中是否有任何資料被轉移到歐盟以外 ，並確保雲端生成式AI的合規性將增加AI的複雜性、引發相互衝突的需求並增加合規方面的開銷。 但如果採用完善的主權雲戰略，就可以透過以下方式協助克服這些挑戰和複雜性： • 確保符合主權雲所在地的當地法規 • 減少應用和資料集在法律上的不確定性 • 消除因多個管轄區的不同法律而產生的衝突 生成式AI應用可能需要存取個人或專有資料以進行訓練（雖然可以使用合成資料，但效果較差），這會引發與資料主權和隱私相關的風險。儘管主權雲提供了更強有力的資料控制手段來降低非法訪問的風險，但這些控制手段會限制此類生成式AI應用所使用的主權資料的跨境轉移和變現，這可能會減少或在極端情況下徹底消除這些應用的優勢。 儘管當生成式AI連接到主權雲或位於主權雲內時，可能會產生這些以及其他與隱私相關的衝突，但主權雲供應商仍可以構建（或授權使用）與AI相關的服務和工具，促進其基礎架構內生成式AI應用的安全、合規使用。 在使用生成式AI時必須考慮本文中強調的事項，而主權雲提供了一種經過驗證的模式，使企業能夠克服以下方面的挑戰： • 資料保護 • 合規要求 • 安全因素 穩健的主權雲戰略可以透過保證資料駐留、資料安全和確保企業符合當地政府的法規，協助企業以負責任的方式有效使用生成式AI技術。此類戰略需要加入：AI的相容性；AI運行成本、開發AI解決方案所需的資源和技能、主要的顧慮等因素；以及用於驅動AI訓練的資料和由此產生的資料。簡而言之，要使AI合規，就需要Private AI架構將AI的商業效益與企業的實際隱私和合規需求相結合。 多年來，VMware Cloud Service Providers就已經能夠將用於多租戶或獨立Cloud Foundation主權雲的Cloud Director與所支持的NVIDIA AI Enterprise人工智慧軟硬體解決方案組合相結合，提供NVIDIA vGPU即服務。因此，提供AI服務的能力已經存在，但需要投資構建自己的解決方案。 為了推動新一輪AI應用的發展浪潮，為企業提供Private AI並使其成為Sovereign Cloud Providers的潛在解決方案，VMware在Explore Las Vegas上宣佈： • VMware Private AI Foundation攜手NVIDIA為企業提供整合式AI工具，尤其是為受到主權監管的行業。該解決方案借助常用於主權雲中的氣隙式私有雲的VMware Cloud Foundation，將VMware Private AI架構與NVIDIA AI Enterprise軟體和加速運算相結合。這套一站式解決方案將為客戶提供自訂模型和運行生成式AI應用（如聊天機器人、助手、搜索和摘要）所需的基礎架構和軟體。Dell（戴爾）、HPE（慧與）和聯想將為採用NVIDIA技術的VMware Private AI Foundation提供支援。 • VMware Private AI Reference Architecture for Open Source加入了最領先的開源技術，為VMware Cloud Foundation上開源模型的開發和部署提供了一個開放框架。透過與包括Anyscale在內的AI行業主要企業合作，VMware正在將熱門的開源Ray統一運算框架整合到VMware Cloud環境中，以此簡化現有運算基礎架構中AI和Python 工作負載的規模。另外，VMware還與Domino Data Lab和NVIDIA攜手為金融行業的AI/ML部署，提供一個量身定制的統一分析和資料科學平台。 • VMware正在推出VMware AI Ready計畫，旨在將專注於ML、LLM維運、資料工程、AI開發工具和嵌入式AI應用的獨立軟體廠商（ISV）與VMware Private AI Reference Architecture上的驗證和認證資源對接。該計畫預計將於2023年底啟動。 主權雲的核心是資料、控制以及主權受監管行業所需的創新。在日新月異的數位化環境中，保持創新和競爭優勢對企業至關重要。VMware Sovereign Cloud是實現這一目標的理想選擇，其靈活性、可擴展性和敏捷性使企業能夠迅速適應不斷變化的市場環境，為企業注入創新的信心。VMware強大的合作夥伴生態和領先的技術可為你提供推動創新的工具和資源。透過VMware Sovereign Cloud，企業既可以充分利用雲端的強大功能，同時又能保持對資料和基礎架構的控制，進而創造一個踴躍創新、積極競爭、成功機會數不勝數的環境。今天就做出明智的選擇，使用VMware Cloud引領您的企業邁向充滿無限可能的未來。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• AWS宣布推出生成式AI新服務加速創新

  AWS宣布推出五項生成式AI創新，使各種規模的企業都可以建立新的生成式AI應用程式，提高員工生產力並完成業務轉型。這五項創新包括：AWS全面託管服務Amazon Bedrock正式可用，透過統一的應用程式設計介面（API）提供來自領先AI公司的基礎模型（FM）；AWS宣佈Amazon Titan Embeddings模型正式可用，為客戶提供更多基礎模型選擇；Amazon Bedrock最新導入了Meta Llama 2模型，這是第一個透過API提供完全託管Meta Llama 2模型的服務；AI程式設計助手Amazon CodeWhisperer的新功能即將提供預覽，可以根據企業的內部程式碼庫安全地客製CodeWhisperer的程式碼建議，助力開發人員從生成式AI中獲得更大價值；Amazon QuickSight的生成式BI創作功能現已推出預覽版，可以提高業務分析師的工作效率。這一功能是雲端原生建立的統一BI服務，使客戶能夠透過自然語言簡單地描述想要的內容，進而建立視覺化內容、格式化圖表、執行計算等。從Amazon Bedrock、Amazon Titan Embeddings，再到Amazon CodeWhisperer及Amazon QuickSight，這些創新增強了AWS在生成式AI堆疊各個層面的能力，無論任何規模的企業都可在獲得企業級安全和隱私保護的同時，選擇最佳模型並進行模型客製。想體驗AWS生成式AI，請參考aws.amazon.com/generative-ai/。 「在過去的一年裡，海量資料的爆炸、大規模彈性算力的就位，以及機器學習技術的快速進步點燃了人們對生成式AI的熱情，深刻改變了各行各業，也改變了人們的工作方式。」AWS資料和機器學習全球副總裁Swami Sivasubramanian表示，「藉由企業級的安全和隱私保護、領先的基礎模型選擇、資料為先的方法論，以及高效能、具有成本效益的基礎架構，AWS贏得了企業的信賴，並在技術棧的每一層使用生成式AI解決方案助力企業不斷創新。今天的發布是一個重要的里程碑，它將生成式AI提供給每個企業，從新創企業到大型企業的每個員工，從開發工程師到資料分析師。透過強大的創新，AWS為企業帶來了更強的安全性、多種選擇和出色的效能，同時還幫助他們緊密對焦企業的資料策略，進而充分釋放生成式AI的潛力。」 各行各業的企業無論規模大小都渴望借助生成式AI來變革營運方式，重新思考解決複雜問題的方法，並創造全新的用戶體驗。儘管生成式AI的最新進展引起了廣泛關注，但許多企業還未能參與到這一轉型過程中。企業們一邊對使用生成式AI充滿渴望，一邊又對這些工具的安全性和隱私問題憂心忡忡。這些企業希望能夠測試多種基礎模型，進而找到最適合自己應用場景的模型。同時，企業還希望最大限度地利用已經擁有的資料，透過客製化模型來為終端使用者提供獨特的體驗。最後，企業需要工具將創新迅速推向市場，還需要具備在全球範圍內部署生成式AI應用程式的基礎設施。 因此，眾多企業正在向AWS尋求生成式AI服務，比如愛迪達、Alida、BMW、Genesys、Glide、GoDaddy、Intuit、律商聯訊（LexisNexis Legal & Professional）、Lonely Planet、默克、國民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會社竹中工務店、Traeger Grills、PGA錦標賽、Verint、Verisk和WPS等。 Amazon Bedrock正式可用，幫助更多客戶建立和擴展生成式AI應用程式 Amazon Bedrock是一項完全託管的服務，提供了來自眾多領先AI公司（包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜）的高效能基礎模型，以及企業建立生成式AI應用程式所需的一系列功能，能實現簡化開發，同時確保隱私性和安全性。基礎模型能應用於資訊搜尋、內容發想及藥物發現等各種應用。 然而，對於許多希望利用生成式AI的企業來說，尚有一些問題需要解決。首先，企業需要能簡單直觀地尋找和存取高效能基礎模型，滿足其場景需求且表現優異；其次，客戶希望應用程式實現無縫整合，無需管理龐大的基礎設施叢集或花費大量成本；最後，客戶希望借助基礎模型並結合自身資料來輕鬆建立差異化的應用程式，而這些客戶用於客製的資料無疑是非常寶貴的資產，且具有智慧財產權，因此在使用過程中必須做到全面保護，在確保安全和隱私的同時，保證客戶對資料共用和使用方式擁有控制權。 借助Amazon Bedrock的完善功能，企業能夠更方便、輕鬆地嘗試多種領先的基礎模型，並使用自己的專有資料客製模型。此外，Amazon Bedrock還提供差異化能力，例如無需再編寫任何程式碼便可建立的託管代理（AI agent），它可以執行複雜任務，如旅行預訂、處理保險理賠、策劃廣告活動和管理庫存等。由於Amazon Bedrock採用無伺服器（serverless）技術，客戶不必管理任何基礎設施，就可以使用熟悉的AWS服務將生成式AI能力安全地整合和部署到應用程式中。 Amazon Bedrock在開發之初就考慮到安全性和隱私保護，幫助客戶保護敏感性資料。客戶可以使用Amazon PrivateLink，在Amazon Bedrock與虛擬私有網路（VPC）之間建立專門的安全連接，確保任何資料傳輸都不會暴露在公共網路。對於存在高度監管需求的客戶，Amazon Bedrock符合HIPAA（《健康保險流通與責任法案》）要求，並且可以在GDPR（歐盟《通用資料保護條例》）合規標準下使用，讓更多客戶從生成式AI中獲益。 Amazon Bedrock透過Amazon Titan Embeddings和Llama 2進一步擴大可選模型範圍，幫助每個客戶找到適合應用場景的模型 由於沒有任何單一模型可以適用於所有的應用場景，為了挖掘生成式AI的價值，企業往往需要多次嘗試，根據需求尋找最適合的模型。為此，Amazon Bedrock讓客戶只需透過單一API就能尋找和測試AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜提供的領先的基礎模型。此外，AWS近日還宣布了Anthropic未來的所有基礎模型都將在Amazon Bedrock上可用，並為AWS客戶提供模型客製和微調等特殊功能的優先使用權。而現在起，Amazon Bedrock再次導入新的基礎模型帶來更多選擇： Amazon Titan Embeddings現已正式可用：Amazon Titan基礎模型是由AWS在大型資料集上建立和預訓練的一系列模型，可以支援各種應用場景。作為這些模型中第一個正式可用的模型，Amazon Titan Embeddings是一種大語言模型（LLM），它將文本轉換成嵌入（embeddings）的數值表示，以支持檢索增強生成（RAG）的應用場景。基礎模型雖然適用於多種任務，但卻只能根據從訓練資料和提示詞上下文中學到的資訊來回答問題。一旦這些回答需要利用高時效性的知識或專門資料時，其有效性就會受限。為了能透過擴展資料來改進基礎模型的回答，許多企業將目光轉向RAG——這一種模型客製技術能將基礎模型連接到可被引用的知識庫，進而改進回應效果。要開始使用RAG，客戶必須先使用一個嵌入模型，將資料轉換成嵌入數值，使基礎模型更容易理解資料之間的語義和關係。然而，建立嵌入模型需要大量的資料和資源，以及深厚的機器學習專業知識，因此很多客戶很難完成自行建立，也就無法實現RAG。 Amazon Titan Embeddings使客戶能夠更簡單地啟用RAG，以便利用專門資料擴展各種基礎模型。Amazon Titan Embeddings支援超過25種語言和多達8192個token的上下文長度，適合基於客戶應用場景去處理單詞、短語或整個文檔。該模型可產生1536個維度的輸出向量，確保高度準確性的同時，還實現更低延遲和優化性價比。 Llama 2即將在未來幾週推出：Amazon Bedrock是業界首個透過託管API提供Meta下一代大語言模型Llama 2的完全託管生成式AI服務。Llama 2模型與前一代的Llama模型相比有顯著進步，包括使用了比原始訓練多40%的訓練資料，並具有更長的上下文長度（4000個token），以處理更龐大的文檔。Amazon Bedrock提供的Llama 2模型已經過優化，可以在AWS基礎設施上提供快速的回應，極為適合對話式應用場景。客戶可以建立具130億和700億個參數的Llama 2模型驅動的生成式AI應用程式，且無需設置和管理任何基礎設施。 Amazon CodeWhisperer新功能將允許客戶使用私有程式碼庫安全地客製CodeWhisperer程式碼建議，進一步提升開發人員效率 Amazon CodeWhisperer是一款基於AI的程式設計助手，透過數十億行來自亞馬遜和公開可用的程式碼進行訓練，提高開發人員的生產力。雖然開發人員在日常工作中頻繁使用CodeWhisperer，但有時需要將企業內部私有程式碼庫（例如內部API、程式碼庫、套裝軟體和類別）整合到應用程式中，而這些程式碼都不屬於CodeWhisperer的訓練資料。內部程式碼的使用也是一個難題，因為說明文檔有限，並且開發人員沒有可以求助的公共資源或論壇。 例如，要編寫一個從購物車中移除商品的功能，開發人員首先必須瞭解用於與應用程式交流的API、集合和其他內部程式碼。以往，開發人員需要花費數小時來檢查以前編寫的內部程式碼，進而找到所需資訊並理解其工作原理。即使找到了正確的資源，他們仍需仔細檢查程式碼，以確保其符合公司編碼的最佳實踐（best practices），並且不會重複引用程式碼中的缺陷或漏洞。 Amazon CodeWhisperer新客製功能將釋放生成式AI程式設計的全部潛力，透過安全地利用客戶內部的程式碼庫和資源提供客製化建議。這使得開發人員在各種任務中能夠更準確地獲得程式碼建議，進而節省時間。首先，管理員需要從源頭（例如GitLab或Amazon S3）連接到他們的私有程式碼儲存庫，並設定一個工作項目來建立客製內容。在建立客製內容時，CodeWhisperer利用各種模型和上下文客製技術，學習客戶的程式碼庫，並改進即時程式碼建議，進而使開發人員花更少的時間去尋找無差別問題（undifferentiated problems）的正確答案，同時將更多時間投入到建立新的差異化體驗上。管理員可以在AWS控制台（Amazon Console）集中管理所有客製功能、查看評估指標、估算每個客製功能的效能，並有選擇地將程式碼部署給公司內特定的開發人員，以限制對敏感程式碼的存取。 透過選擇最高品質的儲存庫，管理員可以確保CodeWhisperer提供的客製建議不包含已棄用的程式碼，並滿足企業品質與安全的標準。考慮到企業級安全和隱私，這項功能可以確保客製內容完全保密，而支援CodeWhisperer的底層基礎模型在訓練過程中不使用客製內容，能夠保護客戶寶貴的智慧財產權。該自訂功能將很快作為CodeWhisperer企業版的一部分在預覽中提供給客戶使用。此外，CodeWhisperer的預設設定確保了安全性，無論客戶使用Amazon CodeWhisperer專業版還是企業版，在處理來自開發人員IDE的請求時，AWS均不會儲存或記錄任何客戶內容。 Amazon QuickSight的新生成式BI創作功能，可以幫助業務分析師使用自然語言命令輕鬆建立和客製資料視覺化效果 Amazon QuickSight是為雲端建立的統一BI服務，能夠建立互動式儀錶板、分頁報告以及嵌入式分析，同時具備使用QuickSight Q進行自然語言查詢的能力，因此企業的每位用戶都能以偏好的格式獲取所需的洞察。 一般情況下，商業分析師需要花費數小時使用BI工具來探索各種不同的資料來源，進而計算、建立和完善視覺化效果，然後呈現在儀錶板中提供給業務相關利益人士。要建立一個簡單的圖表，分析師必須先找到正確的資料來源、識別資料欄位、設置篩檢程式，同時進行必要的個人化設定以實現良好的視覺化效果。 如果進行資料視覺化需要進行新的計算（例如年度銷售額），分析師還必須確定所需的參考資料，然後建立、驗證並將視覺效果添加到報告中。如果可以減少商業分析師手動建立和調整圖表和計算所花費的時間，讓他們將更多時間投入到高價值的任務中，企業也能從中獲益。 新的生成式BI創作功能擴展了QuickSight Q的自然語言查詢功能，使其不僅能夠回答清晰表述的問題（例如，「加州銷售排名前10的產品是什麼？」），還能幫助分析師從問題片段（例如，「銷售排名前10的產品」）快速建立客製的視覺效果，透過提出後續問題來釐清查詢用意，優化視覺效果，並完成複雜的計算。業務分析師只需描述想獲得的結果，QuickSight即可生成具有良好觀感的視覺物件。分析師僅需簡單操作就能將其輕鬆添加到儀錶板或報告中。 例如，分析師可以要求QuickSight Q為「2022年和2023年運動鞋銷售額的每月趨勢」建立視覺化內容，該服務會自動選擇合適的資料，並根據請求使用最合理的圖表格式（比如折線圖或長條圖）繪製所需資訊。QuickSight Q還將提供預設的提示問題，幫助分析師釐清在多個資料欄位與其匹配查詢時可能出現的歧義（比如圖表應包括運動鞋銷售額的美元總額還是銷售的單位個數）。 分析師獲得了初步的視覺化內容後，還可以使用自然語言添加更複雜的計算，改變圖表類型，或優化視覺化效果。QuickSight Q中新的生成式BI創作功能使業務分析師能夠輕鬆快速地建立良好的視覺效果，透過大規模資料驅動決策，提供寶貴的資訊依據。 各行各業的客戶都在利用AWS的生成式AI服務建立新的應用程式，提高開發人員的效率，以及幫助分析師更快速地獲取洞察 愛迪達是全球最大的運動品牌之一。「我們很高興能參與Amazon Bedrock預覽版的試用，親身體驗這項服務。Amazon Bedrock對我們的生成式AI工具建立大有幫助，Amazon Bedrock負責了建立生成式AI應用的繁重基礎設施管理工作，使我們能夠專注於大語言模型專案的核心作業。」愛迪達企業架構副總裁Daniel Eichten表示，「我們已經使用Amazon Bedrock開發了一款生成式AI解決方案，使愛迪達的廣大工程師只需透過單個對話介面，就能從知識庫中找到所需的各種資訊和答案，回答從入門到複雜的多種技術問題。」 默克是一家研發密集型生物製藥公司，130多年來一直致力於發現和研發創新藥物和疫苗，以拯救生命和改善人類健康。「完整的製藥價值鏈上存在許多手動且耗時的流程，這些流程阻礙了更有價值的工作發展，且無法有效利用資料改善員工、客戶和患者體驗。」默克資料科學執行董事Suman Giri表示，「透過Amazon Bedrock，我們迅速建立了生成式AI功能，使知識挖掘和市場研究等工作更有效率。我們分析美國患者時，可以利用這些功能提供患者治療的見解，提高生活品質，擴大商業影響力，同時填補過去資料共用的不足，為負責任的生成式AI打造資料治理生態系統。」 BMW是全球頂級汽車和摩托車製造商。「BMW的區域專家致力於優化供應鏈的庫存，他們經常收到董事會成員或供應鏈專家等利益相關者的請求，被要求建立新的儀錶板視覺圖表，以便他們分析最新趨勢。」BMW資料工程和分析專家Christoph Albrecht表示，「QuickSight Q創作體驗能夠大幅節省時間，在無需參考的情況下建立計算，並快速呈現視覺效果，然後透過自然語言對視覺化呈現進行精確調整。區域專家的快速回饋給我們的業務用戶留下了深刻印象，進而讓他們可以更快地做出重要決策。」 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 橫跨 Meta 應用程式與裝置的全新 AI 體驗

  拜生成式技術所賜，AI 開創全新人際連結與自我表達方式。在今日 Meta Connect 大會上，Meta 推出讓人們更緊密連結的全新 AI 體驗與功能，以及一系列有助提升創造力、表現力與生產力的實用工具。 貼圖在人們溝通時增添樂趣與創意，並展現個人特色，每個月在 Meta 平台上傳送的貼圖數量高達數十億次。今日 Meta 發表全新的 AI 貼圖，結合 Llama 2 技術與 Meta 圖像生成基礎模型 Emu，只要輸入文字提示詞，AI 工具將在幾秒內產生多張獨特的優質貼圖，讓大家輕鬆客製化個人貼圖，並應用於聊天與限時動態中。此新功能之後將於 Messenger、Facebook 限時動態與 Instagram 限時動態與私訊、 WhatsApp 等陸續推出，提供無限選項，貼切表達當下心情。十月起，AI 貼圖將開放給特定英語系民眾使用。 Instagram 即將推出結合 Meta 圖像生成模型的兩項新功能 Restyle 和 Backdrop，讓人們自創獨一無二的圖像，甚至能與朋友共創 AI 圖像；這兩項新功能運用 Emu 的技術，Backdrop 也運用影像分割基礎模型 Segment Anything Model 的學習結果。 Restyle 將依照使用者描述的視覺風格改造圖片。輸入「水彩」等關鍵字描述，或詳細的提示像是「報章雜誌的拼貼圖，邊緣撕紙效果」來說明想像中的外觀與風格。 Backdrop 則為風景或背景編輯功能。輸入「在我背後加上超美極光」或「被一群小狗圍繞在身邊」等文字提示後，AI 工具會將照片中的主角置於前景，背景即為剛才形容的畫面。 AI 生成內容首重公開透明，所以 Restyle 與 Backdrop 會揭露產出的圖像為 AI 生成，避免被誤認為是人們創造的內容；目前也在測試各種可見或不可見的標記。Meta 期待提供安全可靠的體驗，在日常生活中帶給大家新的創意、娛樂與自我表達方式。 Meta AI 是接近與真人互動的全新 AI 助理，支援 WhatsApp、Messenger、Instagram，很快也將導入Ray Ban Meta 智慧眼鏡與 Quest 3 頭戴式裝置。Meta AI 由客製化模型所驅動，結合 Llama 2 技術，以及 Meta 最新大型語言模型 (LLM) 研究。在文字聊天中，Meta AI 將透過與搜尋引擎 Bing 合作，即時獲取最新資訊，並提供圖像生成工具。 以下是 Meta AI 可能的應用場景： 想像朋友群組在討論要去加州聖塔克魯茲 ( Santa Cruz ) 哪一條登山步道， Meta AI 會在聊天中直接提供選項，幫助大家決定要去何處探險。結束之後若想為這次活動留下特別紀念，交給 Meta AI 輸入「@MetaAI /imagine」再輸入敘述提示，例如「製作含有登山客、帝王斑蝶與紅杉的徽章」，AI 就會在好友群組裡生成一個數位榮譽徽章。 Meta AI 才剛起步，目的也不僅限於回答問題。Meta 開發具有不同個性、觀點與興趣的一組全新 AI 角色，每一位都有專屬的故事設定，增進互動樂趣。在 WhatsApp、Messenger 與 Instagram 中，不僅有 Meta AI，另可選擇 28 款 AI 角色互動聊天。 為了讓聊天更像是與熟識的人互動，Meta 邀請時下文化指標人物與具影響力的名人扮演其中幾個 AI 角色，並建立各自的 Instagram 與 Facebook 個人檔案，讓大家一探究竟： Charli D’Amelio：扮演熱愛跳舞的 Coco 保羅 (Chris Paul)：化身專業高球選手 Perry，幫球友改善揮桿 韋德 (Dwyane Wade)：變身為鐵人三項運動員 Victor，激勵他人達到最佳表現 Izzy Adesanya：扮演愛現的 MMA 潛力股 Luiz，有料才敢大聲說出垃圾話 坎達兒珍娜 (Kendall Jenner)：化身字字真心、為你赴湯蹈火的 Billie LaurDIY：變身為古靈精怪的 DIY 高手 Dylan，Z 世代神隊友 Mr. Beast：扮演像哥哥一樣的 Zach，嗆你才是愛你的表現 大坂直美 (Naomi Osaka)：扮演動漫狂粉 Tamika，美少女戰士訓練中 派瑞絲希爾頓 (Paris Hilton)：化身偵探助手 Amber，協助辦案抓真兇 Raven Ross：化身健身女神 Angie，運動與冥想並重 崔洛伊 (Roy Choi)：扮演經驗老到的副主廚 Max，烹飪秘訣一把罩 Sam Kerr：化身從容淡定的 Sally，勇於解鎖人生各種關卡 史努比狗狗 (Snoop Dogg)：扮演地下城主 (Dungeon Master)，陪你展開屬於自己的冒險 湯姆布萊迪 (Tom Brady)：扮演能言善道講不停的運動辯論高手 Bru 即日起將於美國推出測試版，在未來數週內，將新增 Bear Grylls、Chloe Kim 與 Josh Richards 等人扮演的新角色。 Meta 的 AI 服務仍在初期階段，目前除了 Meta AI 與數個角色之外，其他角色的知識多半基於 2023 年以前的資訊，因此有些回覆可能無法即時反映現況。接下來幾個月，預計將加入搜尋功能，讓對話就像 Meta AI 一樣與時俱進且貼近現實。 Meta 產品以負責任開發為原則，視安全為首要任務。目前持續測試與發展 AI 的能力，未來也會從人們與 AI 互動中不斷學習與進步。大家的意見回饋以及與 AI 的對話，是 Meta 改善 AI 模型的基礎，最終將全面優化體驗。 Meta 今日正式發表 AI Studio 平台，不只用來設計 Meta AI 助理，也計劃開放外界使用，不論是否具備程式編寫專業，皆能運用此平台開發 AI 助理。未來幾週我們將開放 Meta API，供開發者打造整合至 Meta 訊息服務的第三方 AI，API 將會優先開放給 Messenger，再拓展至 WhatsApp。 企業用戶也有機會藉由客製化 AI 傳遞品牌價值與改善客戶服務的體驗。無論是想擴張版圖的小企業或強化溝通的大品牌，AI 可以協助企業利用 Meta 各應用程式與客戶互動。現行為初期測試版本，並將於 2024 年擴大推出。 另外，AI 將協助創作者加強在 Meta 各應用程式的虛擬臨場感。AI 皆須經過創作者核准，並由本人直接掌控。 團隊也正在開發一款沙盒 (sandbox)，預計 2024 年推出，開放所有人客製化 AI。隨著 Meta AI 世界不斷成長進化，沙盒將應用在元宇宙，協助大家打造更真實性、具體化與連通性的專屬 AI。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• «
• 16
• 17
• 18
• 19
• 20
• 21
• 22
• »